Microsoft се бори да актуализира безплатния си софтуер за изкуствен интелект след скандала с дълбоките фалшиви фалшиви изображения на Тейлър Суифт

Майкрософт предприе ограничения против потреблението на безплатния програмен продукт за изкуствен интелект на компанията, откакто инструментът беше обвързван със основаването на полово очевидни дълбоки подправени изображения на Тейлър Суифт, които заляха обществените медии – и подвигна призрака на правосъден иск от вбесената певица.

Технологичният колос пусна актуализация на своя известен инструмент, наименуван Designer – стратегия за текст към изображение, задвижвана от Dall-E 3 на OpenAI – която добавя  „ защитни парапети “, които ще предотвратят потреблението на фотоси без единодушие, компанията сподели.

Фалшивите фотоси – показващи гола Суифт, заобиколена от играчи на Канзас Сити Чийфс, като отпратка към нейния необятно рекламиран романс с Травис Келс – бяха проследени до дизайнерския AI на Microsoft, преди да стартират да циркулират в X, Reddit и други уеб страници, техн. -фокусиран уебсайт 404 Media заяви в понеделник.

„ Ние изследваме тези отчети и подхващаме подобаващи дейности за справяне с тях “, сподели представител на Microsoft пред 404 Media, който първи заяви за актуализацията.

„ Имаме огромни екипи, работещи по създаването на парапети и други системи за сигурност в сходство с нашите правила за виновен AI, в това число пречистване на наличие, действен мониторинг и разкриване на злоупотреби, с цел да смекчи злоупотребата със системата и да помогне за основаването на по-безопасна среда за потребителите, ” добави представителят, отбелязвайки, че съгласно Кодекса за държание на компанията всички консуматори на Designer, които основават deepfakes, ще изгубят достъп до услугата.

вижте също

Вивек Рамасуами диво спекулира, че Super Bowl ще бъде нагласен за Chiefs, с цел да приготви сцената за поддръжката на Тейлър Суифт за Байдън

Представители на Microsoft не дадоха отговор незабавно на настояването на The Post за коментар.

Актуализацията идва откакто основният изпълнителен шеф на Microsoft Сатя Надела сподели, че софтуерните компании би трябвало да „ работят бързо “, с цел да се оправят със злоупотребата с принадлежности за изкуствен интелект.

Надела, чиято компания е основен вложител в основателя на ChatGPT OpenAI, разказа разпространяването на подправени нецензурен изображения на артиста на „ Cruel Summer “ като „ обезпокоително и извънредно “.

„ Трябва да действаме. И почтено казано, всички ние в софтуерната платформа, без значение от позицията ви по съответен въпрос, ” сподели Надела, съгласно стенограма преди изявление за NBC Nightly News intervju, което ще бъде излъчено във вторник.

„ Не мисля, че някой би желал онлайн свят, който не е изцяло безвреден както за основателите на наличие, по този начин и за потребителите на наличие. “

Swift deepfakes бяха прегледани повече от 45 милиона пъти на X, преди най-сетне да бъдат отстранени след към 17 часа.

Източник, непосредствен до Swift, беше ужасяващ, че „ обществената медийна платформа даже им разреши да стартират “, оповестява Daily Mail, изключително като се има поради, че Помощният център на X обрисува политики, които не разрешават публикуването на „ синтетични и манипулирани медии “, както и „ голота без единодушие. “

През уикенда платформата за обществени медии на Илон Мъск предприе изключителната стъпка да блокира всевъзможни търсения, включващи името на Суифт, да не дават резултати – даже и тези, които бяха безобидни.

Изпълнителният шеф на X Джо Бенарок разказа преместването като „ краткотрайно деяние и направено с доста нерешителност, защото даваме приоритет на сигурността по този въпрос. “

Забраната остана в действие в понеделник.

Противоречието може да значи още едно главоболие за Microsoft и други водачи на AI, които към този момент са изправени пред възходящ юридически, законодателен и регулаторен надзор върху процъфтяващата технология.

Прессекретарят на Белия дом Карин Жан-Пиер разказа наклонността на deepfakes като „ доста тревожна “ и сподели, че администрацията на Байдън „ ще направи всичко допустимо, с цел да се оправи с този проблем “.

Възходът на AI deepfakes може да се появи като основна тематика по-късно тази седмица, когато основният изпълнителен шеф на Meta Марк Зукърбърг, основният изпълнителен шеф на TikTok Шу Чу и други видни софтуерни босове дадат показания пред панел на Сената.

По-рано този месец конгресменът Джоузеф Морел (D-NY) и Том Кийн (R-NJ) внесоха още веднъж законопроект, който ще трансформира шерването без единодушие на цифрово изменени нецензурен изображения във федерално закононарушение, с наложени санкции като затвор, добре или и двете.

„ Законът за попречване на дълбоки фалшификации на интимни изображения “ беше отправен до правосъдната комисия на Камарата на представителите, само че комисията към момента не е взела решение дали да одобри или не законопроекта.